Su-24 bắt đầu được lên kế hoạch thiết kế chế tạo vào đầu những năm 1960, theo sau một sự đòi hỏi về một máy bay tấn công ném bom mới để thay thế cho Ilyushin Il-28 và Yakovlev Yak-28. Các bản vẽ kỹ thuật đã được hoàn thiện vào năm 1964, thiết kế này là một máy bay có thể bay trong mọi thời tiết, đạt tốc độ siêu âm ở độ cao thấp, và một khả năng dẫn đường và ném bom chính xác cao. Hơn nữa, các tướng lĩnh Không quân Xô Viết nhận thấy đây là một máy bay còn có thế thay thế được những máy bay cường kích hiện có của họ, nó chỉ cần một đường băng ngắn là có thể cất cánh và hạ cánh.

Sukhoi cũng như đối thủ Mikoyan-Gurevich (lúc này cũng đang phát triển một máy bay chiến đấu mà sau này sẽ trở thành MiG-23), vào lúc đầu đã nghiên cứu khả năng của động cơ phản lực cho phép máy bay giảm bớt đường băng cất cánh. Mẫu đầu tiên có tên gọi là T-6-1, bay lần đầu tiên vào năm 1967, nó có cánh tam giác với động cơ nâng trong thân máy bay, tương tự như T-58VD 'Flagon-B', nhưng thiết kế này tỏ ra kém hiệu quả. Một phiên bản sửa đổi, T-6-2, không có những động cơ nâng trong thân, nhưng đã quay trở lại loại cánh bẻ xuống ở đầu cánh và có rãnh. Cánh này giống với loại BAC TSR-2 của Anh. Trong khi T-6-2 chứng minh nó có thể sử dụng dễ dàng, nhưng lực nâng của cánh thấp đã gây ra những thất bại trong thử nghiệm do không đạt yêu cầu.

Một giải pháp tốt hơn là loại cánh có hình dạng thay đổi được, cũng được ứng dụng trên Su-17 và Mikoyan-Gurevich 23-11 lúc đó. Mẫu thứ hai của Sukhoi được gắn một đôi cánh có thể thay đổi được hình dạng, có tên gọi là T-6-2IG. Nó bay lần đầu tiên vào năm 1970, và đã thử nghiệm thành công để đưa vào sản xuất hàng loạt, lúc đầu dưới tên gọi là Su-15M (tên gọi này đã bị dịch sai bởi những nhà phân tích quân sự Phương Tây, và nó còn nhầm lẫn với tên gọi Su-19 cho đên năm 1981).

Việc sản xuất Su-24 (tên ký hiệu của NATO là 'Fencer-A') được tiến hành khẩn trương và nó bay lần đầu tiên vào tháng 12-1971, và bắt đầu phục vụ vào năm 1974. NATO không có một bức ảnh tình báo rõ ràng nào về Su-24 cho đến khi một trung đoàn được triển khai đến Đông Đức 5 năm sau đó vào năm 1979, và với những khả năng của mình, Fencer đã gây ra những mối lo sợ trong các nhà phân tích quân sự Phương Tây lúc đó, giống như MiG-25 Foxbat. Nó là một máy bay chiến đấu tinh vi nhất trong trang bị của Liên Xô cho đến nay, Su-24 đã trải qua những vấn đề khác nhau, nhưng nó rất được các phi công yêu thích[cần dẫn nguồn]. Mặc dù được biết đến với tên gọi Fencer ở Phương Tây, nhưng các phi công Liên Xô lại đặt cho nó cái tên là Chemodan (чемодан, va li) vì khả năng mang vũ khí và tính linh hoạt của nó.

Su-24 được cải tiến nhiều lần và có các phiên bản nâng cấp khác nhau, và các phiên bản này lại được NATO gọi với các tên khác nhau (dù trong trang bị của Liên Xô, chúng vẫn có cùng tên gọi như nhau). Một phiên bản nâng cấp phát triển được sử dụng rộng rãi là Su-24M (tên ký hiệu của NATO là 'Fencer-D'), bắt đầu được sản xuất vào năm 1978. Su-24M được biên chế trong các đơn vị vào năm 1983. 2 phiên bản chuyên dụng khác là Su-24MR ('Fencer-E' - phiên bản trinh sát) và Su-24MP ('Fencer-F' - phiên bản thu thập ELINT), được phát triển từ Su-24M.

Một phiên bản xuất khẩu của Su-24M là Su-24MK (K là kommercheskiy - thương mại), được bán cho vài khách hàng nước ngoài. 10 chiếc được bán cho Algérie, 15 chiếc cho Lybia và 12 chiếc cho Syria. Tổng cộng 32-33 chiếc Su-24MK đã được bán cho Iran và Iraq, nhưng nguồn tin không rõ ràng. Những thông tin của Nga công bố 9 chiếc được bán cho Iran và 24 chiếc cho Iraq, hiện tại đều đang hoạt động trong không quân Iran. Iran nói rằng họ có 14 chiếc và thu được 16-18 chiếc của Iraq, những chiếc máy bay này đã chạy trốn khỏi Iraq khi Chiến tranh vùng Vịnh nổ ra năm 1991.

Su-24 Fencer dần bị thay thế bởi một máy bay chiến đấu ném bom khác của Sukhoi là Su-34 'Fullback' hoặc một máy bay hiện đại nào đó kể từ thập niên 2010.